導(dǎo)讀:神經(jīng)網(wǎng)絡(luò)是強(qiáng)大的東西,但需要大量的能量。麻省理工學(xué)院的工程師現(xiàn)在開(kāi)發(fā)了一種新型芯片,可以將神經(jīng)網(wǎng)絡(luò)的功耗降低95%,從而可以讓它們?cè)陔姵毓╇姷囊苿?dòng)設(shè)備上運(yùn)行。智能手機(jī)正在
發(fā)表日期:2020-07-04
文章編輯:興田科技
瀏覽次數(shù):7721
標(biāo)簽:
神經(jīng)網(wǎng)絡(luò)是強(qiáng)大的東西,但需要大量的能量。麻省理工學(xué)院的工程師現(xiàn)在開(kāi)發(fā)了一種新型芯片,可以將神經(jīng)網(wǎng)絡(luò)的功耗降低95%,從而可以讓它們?cè)陔姵毓╇姷囊苿?dòng)設(shè)備上運(yùn)行。
智能手機(jī)正在變得真正聰明,提供更多的人工智能服務(wù),如數(shù)字助理和實(shí)時(shí)翻譯。但通常情況下,處理這些服務(wù)數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)都在云計(jì)算,智能手機(jī)的數(shù)據(jù)來(lái)回傳送。
這并不理想,因?yàn)樗枰罅康耐ㄐ艓?,并且意味著潛在的敏感?shù)據(jù)正在被傳輸并存儲(chǔ)在用戶控制之外的服務(wù)器上。但是,GpU神經(jīng)網(wǎng)絡(luò)運(yùn)行需要巨大能量,這使得在有限的電池電量下運(yùn)行的設(shè)備中實(shí)現(xiàn)它們是不切實(shí)際的。
麻省理工學(xué)院的工程師現(xiàn)在設(shè)計(jì)了一款芯片,通過(guò)大幅減少在芯片內(nèi)存和處理器之間來(lái)回傳輸數(shù)據(jù)的需求,可以將功耗降低高達(dá)95%。
神經(jīng)網(wǎng)絡(luò)由成千上萬(wàn)層互相連接的人造神經(jīng)元組成。每個(gè)神經(jīng)元從它下面的層中的多個(gè)神經(jīng)元接收輸入,并且如果組合的輸入通過(guò)某個(gè)閾值,則它將輸出發(fā)送到其上的多個(gè)神經(jīng)元。神經(jīng)元之間連接的強(qiáng)度由訓(xùn)練期間設(shè)定的權(quán)重決定。
這意味著對(duì)于每個(gè)神經(jīng)元,芯片必須檢索特定連接的輸入數(shù)據(jù)以及來(lái)自存儲(chǔ)器的連接權(quán)重,將它們相乘,存儲(chǔ)結(jié)果,然后為每個(gè)輸入重復(fù)該過(guò)程。這需要大量的數(shù)據(jù)移動(dòng),耗費(fèi)大量的能源。
新的MIT芯片消除了這種情況,而是使用模擬電路在存儲(chǔ)器內(nèi)并行計(jì)算所有輸入。這大大減少了需要推動(dòng)的數(shù)據(jù)量,并節(jié)省了大量的能源。
該方法要求連接的權(quán)重是二進(jìn)制的,而不是一個(gè)范圍的值,但以前的理論工作表明這不會(huì)顯著影響準(zhǔn)確性,研究人員發(fā)現(xiàn)該芯片的結(jié)果一般在傳統(tǒng)的非結(jié)果的2%到3%運(yùn)行在標(biāo)準(zhǔn)計(jì)算機(jī)上的二進(jìn)制神經(jīng)網(wǎng)絡(luò)。
這并不是研究人員首次創(chuàng)建能夠減少神經(jīng)網(wǎng)絡(luò)功耗的芯片,但這是該方法首次用于運(yùn)行強(qiáng)大的基于圖像的AI應(yīng)用的卷積神經(jīng)網(wǎng)絡(luò)。
IBM的人工智能副總裁Dario Gil在一份聲明中表示,“結(jié)果顯示,能量有效實(shí)現(xiàn)與存儲(chǔ)陣列卷積操作的令人印象深刻的規(guī)格”。
“它肯定會(huì)為將來(lái)在物聯(lián)網(wǎng)(物聯(lián)網(wǎng))中應(yīng)用更復(fù)雜的卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行圖像和視頻分類開(kāi)辟可能性?!?/p>
不過(guò),這不僅僅是研究小組的工作。將智能手機(jī),家用電器和各種物聯(lián)網(wǎng)設(shè)備等智能手機(jī)智能化的渴望正在推動(dòng)硅谷的誰(shuí)將成為低功耗AI芯片。
蘋(píng)果公司已經(jīng)將其神經(jīng)引擎整合到iphone X中,為面部識(shí)別技術(shù)提供動(dòng)力,亞馬遜傳聞將為下一代Echo數(shù)字助理開(kāi)發(fā)自己的定制AI芯片。
大芯片公司也越來(lái)越傾向于支持像機(jī)器學(xué)習(xí)這樣的先進(jìn)功能,這迫使他們使他們的設(shè)備變得更節(jié)能。今年早些時(shí)候,ARM發(fā)布了兩款新芯片:Arm Machine Learning處理器,針對(duì)從平移到面部識(shí)別的一般AI任務(wù),以及用于檢測(cè)圖像中的臉部等物體的手臂對(duì)象檢測(cè)處理器。
高通公司最新的移動(dòng)芯片Snapdragon 845采用GpU,專注于人工智能。該公司還發(fā)布了針對(duì)無(wú)人機(jī),機(jī)器人和工業(yè)設(shè)備的Snapdragon 820E。
更進(jìn)一步,IBM和英特爾正在開(kāi)發(fā)神經(jīng)晶體芯片,其架構(gòu)受人類大腦和其令人難以置信的能源效率的啟發(fā)。這在理論上可以讓IBM的TrueNorth和Intel的Loihi在傳統(tǒng)芯片的一小部分功率上運(yùn)行強(qiáng)大的機(jī)器學(xué)習(xí),盡管在現(xiàn)階段它們?nèi)匀皇歉叨葘?shí)驗(yàn)性的。
讓這些芯片運(yùn)行神經(jīng)網(wǎng)絡(luò)與在云服務(wù)中發(fā)現(xiàn)的神經(jīng)網(wǎng)絡(luò)一樣強(qiáng)大,而不會(huì)快速燒毀電池,這將是一個(gè)巨大的挑戰(zhàn)。但是按照目前的創(chuàng)新步伐,看起來(lái)好像不會(huì)太長(zhǎng),然后才會(huì)在口袋里包裝一些嚴(yán)肅的AI功能。
上一篇:
暫無(wú)信息更多新聞
2020
神經(jīng)網(wǎng)絡(luò)是強(qiáng)大的東西,但需要大量的能量。麻省理工學(xué)院的工程師現(xiàn)在開(kāi)發(fā)了一種新型芯片,可以將神經(jīng)網(wǎng)絡(luò)的功耗降低95%,從而可以讓它們?cè)陔姵毓╇姷囊苿?dòng)設(shè)備上運(yùn)行。智能手機(jī)正在
View details
2023
云浮網(wǎng)絡(luò)推廣是指利用互聯(lián)網(wǎng)渠道來(lái)促進(jìn)產(chǎn)品或服務(wù)的宣傳和銷售,以達(dá)到擴(kuò)大企業(yè)影響力的目的。它可以通過(guò)多種方式來(lái)實(shí)現(xiàn),包括搜索引擎優(yōu)化(SEO)、社交媒體營(yíng)銷、內(nèi)容營(yíng)銷等。
View details